可测量滑块:从可微图像测量学习连续控制
🧭 扩散模型可控生成 · 可微测量
School of Computer Science, The University of Sydney
提出Measured Sliders框架,用可微图像测量定义并学习连续图像属性控制,实现有序、选择性和可组合
📌 工作参考价值(4 点)
- 可微图像测量作为监督信号,替代文本或学习表示来定义控制轴,让生成结果的属性变化与量化指标直接对齐。在电商商品图生成或广告创意生成中,可将亮度、饱和度、色温、构图等属性定义为可微函数,训练可控LoRA。
- 可观测性测试在训练前筛选可学习属性,避免对不可控维度浪费训练资源。推荐系统或生成式推荐中可借鉴:先验证目标属性在隐空间/特征空间能否被可靠观测和优化,再投入训练。
- 多个LoRA分支存储同一checkpoint,推理时免训练组合,不依赖联合激活。可复用到多属性可控生成场景,减少多任务训练成本,且组合时保持各方向独立性,类似推荐中的多目标解耦。
- 训练后校准到实际图像变化单位,使不同控制强度可比,便于产品侧设定语义化滑块范围(如亮度+10%),提升用户体验和可控性。
SAEVerbalizer:通过表征言语化生成稀疏自编码器特征解释
🧭 LLM 可解释性 · 表征言语化
Tsinghua University · Peking University · Fudan University
注入 SAE 解码方向并微调下游层,将 SAE 特征直接言语化为自然语言解释,摆脱外部行为观察
📌 工作参考价值(4 点)
- 可将 SAE 特征言语化范式迁移到推荐/搜索的内部表征:对用户或商品 embedding 的稀疏特征生成自然语言解释,帮助理解模型捕获的隐式偏好(如价格敏感、品牌忠诚),用于特征 Debug 和可解释推荐。
- 训练一个 verbalizer 后即可直接解释 decoder 方向,无需为每个特征收集行为证据,显著降低大规模特征解释的工程成本;在电商场景可批量解释召回/排序模型中的稀疏特征,加速模型审计。
- 多方向注入产生组合语义、反转方向产生相反语义,可用于可控文本生成:例如在广告文案或推荐理由生成中,通过注入/反转特定语义方向实现属性编辑(如风格、情感、卖点控制)。
- 跨模型迁移只需轻量 adapter,不重新训练完整解释器,适合业务中多 LLM 版本快速适配;在生成式推荐或 Agent 决策解释模块中可复用该迁移策略。
奖励引导解码:面向生成式推荐的可控价值对齐
🧭 生成式推荐 · 奖励引导解码 ★ 深度解读
Institute of Information Engineering, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Kuaishou Technology · Peking University
提出RGD框架,将业务价值注入解码过程,解决生成推荐中似然与价值不匹配问题,无需重训模型
📌 工作参考价值(4 点)
- 解码时注入业务价值,无需重训生成器:RGD 将奖励模型作为测试时控制器,通过闭式解 log P + R/β 替换原始 beam search 的排序方式。业务目标切换或权重调整只需更换奖励头或调整温度系数 β,生成器保持不变,显著降低维护成本。
- 轻量级奖励模型设计可复用:奖励头以 Bottleneck MLP 共享生成器解码器的隐藏状态,梯度隔离训练,仅增加少量参数和推理开销。这种插件式设计可直接纳入现有生成推荐服务。
- 混合推理策略平衡效果与延迟:在首层 SID 使用 pre-merge 扩大搜索空间,后续层改用 post-merge 减少计算量,在工业场景中实现与全量 pre-merge 相近的效果,延迟增加可控,适合在线部署。
- 缓解 beam search 的早期剪枝问题:通过奖励引导,原本因低生成概率被剪枝的高价值候选项有机会存活,扩大有效搜索范围。在快手直播推荐中,CTR 引导的 RGD 在线带来 +0.392% 页面点击率、+0.689% 观看时长。
GraphVid:交互图控制的多对象视频生成
🧭 结构化场景图控制视频生成
University of Illinois Urbana-Champaign · Sony Research India
提出用可编辑场景图作为条件,实现精确多对象交互的图像到视频生成
📌 工作参考价值(4 点)
- 商品互动视频生成:在电商场景中,利用图关系描述商品之间的使用关联(如「手机–支付终端–用户」),自动化生成展示商品动态交互的营销视频。
- 轻量可控生成框架:冻结视频扩散骨干,仅训练图条件注入模块,大幅减少参数量和训练数据需求,能快速适配到特定领域(如试穿、3C 产品演示)。
- 非专业用户交互设计:通过拖拽编辑场景图节点和边,使无动画背景的用户也能生成多物体动态视频,降低内容制作门槛。
- 可解释的条件控制:图结构天然对应知识图谱,在推荐系统中可与商品图谱结合,实现可解释的「条件」推荐内容生成(例如按用户兴趣图谱生成个性化短视频)。
CtrlVTON:基于视觉实例提示分割的可控虚拟试穿
🧭 可控虚拟试穿 · 像素级布局控制
NXN Labs · KAIST
提出VIP-SAM实例分割与CtrlVTON图像编辑框架,首次实现试穿中服装风格、尺寸和位置的像素级控制
📌 工作参考价值(4 点)
- 可控试穿为电商商品详情页生成多样化模特图(不同穿法、松紧度),提升用户购买信心
- 配合用户偏好掩码可实现个性化虚拟试穿,增强推荐系统的可视化吸引力与解释性
- VIP-SAM分割能力可用于UGC图片中自动识别同款服装,辅助搭配推荐与社交电商
- 像素级控制思想可迁移至家居、美妆等场景,为生成式推荐提供更精细的可控生成能力
WorldDirector:解耦式可控世界模拟与持久动态记忆
🧭 世界模型 · 视频生成与模拟
HKUST · Ant Group · ZJU · CUHK
将3D语义运动编排与视频生成解耦,用LLM生成控制轨迹,实现持久动态对象记忆与高可控长视频合成
📌 工作参考价值(4 点)
- 解耦控制与生成的思路可迁移至生成式推荐:先用 LLM 编排用户意图阶段或促销节律,再控制具体物品生成,提升推荐结果的可控性与逻辑性。
- 持久动态记忆模块启发长期用户兴趣建模:即使某类商品长期无交互,仍维持其隐状态,在重新出现时快速恢复相关性,可改进长序列召回。
- 利用 LLM 生成结构化控制信号(如行为路径)的方法,可用于模拟用户交互序列,生成高质量仿真数据,辅助离线策略评估和训练。
- 因果块自回归生成方式可类比于推荐中的分阶段决策,将推荐列表分块生成并保持块间一致性,避免一次性输出过长序列导致的逻辑断裂。
InstanceControl:无需实例标注的可控复杂图像生成
🧭 多实例可控图像生成 · VLM自动对应
Harbin Institute of Technology · HUAWEI Noah's Ark Lab
利用视觉语言模型自动建立文本描述与视觉条件间的实例级对应,消除手动标注,实现高保真多实例控制。
📌 工作参考价值(4 点)
- 在电商商品场景图生成中,可使用类似VLM自动将多个商品文本描述映射到布局或深度图的区域,省去人工标注实例位置。
- 自适应掩码细化策略可通过迭代校正噪声掩码,提升多实例属性绑定的准确性,可迁移至多模态检索或视频中目标跟踪任务。
- 该方法展示了如何利用大规模预训练模型(如VLM)的零样本能力进行细粒度对齐,可为电商广告创意生成中的多物品组合控制提供参考。
- 工程实现上,可将VLM作为插件集成到现有扩散模型生成流程中,无需额外训练数据集,降低部署成本。